Ivan Krylov sinh ở Moskva, là con trai của một sĩ quan phục vụ trong quân đội. Krylov ít học nhưng đọc sách nhiều, được thừa hưởng một thư viện lớn của bố, là một người rất ham mê đọc sách. Lên 10 tuổi mồ côi bố, Krylov được nhà văn Nicolai Lvov đỡ đầu, được sống trong môi trường văn chương từ nhỏ. Năm 1782 cùng với mẹ đi lên Sankt-Peterburg làm lương hưu cho mẹ và xin việc làm. Thời gian này ông bắt đầu viết một vài vở kịch và bắt đầu làm thơ. Năm 1785 viết bi kịch Cleopatra (bản thảo sau này bị thất lạc) được nghệ sĩ nổi tiếng Dmitryevsky khen ngợi và khuyên nên tiếp tục sáng tác. Năm 1786 viết bi kịch Phelomela. Những tác phẩm này không mang lại cho Krylov tiền bạc hay danh tiếng nhưng cho phép ông nhập hội với những văn nghệ sĩ của Sankt-Peterburg.

Cuối thập niên 1780 ông tập trung vào lĩnh vực báo chí, thành lập tờ tạp chí Почта духов nhưng chỉ sau một thời gian phải đổi tên vì không có nhiều bạn đọc. Năm 1793 đổi tên thành Санкт-Петербургский Меркурий nhưng đến cuối năm này cũng ngừng hoạt động. Thời gian này Krylov đi về các tỉnh, sống với bạn bè rồi lên Moskva tiếp tục sáng tác. Năm 1805 ông in một số truyện ngụ ngôn và một số bản dịch ngụ ngôn của Jean de La Fontaine rồi quay sang viết kịch. Năm 1807 nhiều vở kịch của ông gây được sự thành công không ngờ nhưng chính vào thời điểm như vậy ông lại quay sang viết ngụ ngôn.

Ivan Krylov trở thành một tác gia cổ điển khi còn sống. Năm 1835, nhà phê bình Vissarion Grigoryevich Belinsky trong bài Литературные мечтания (Những giấc mơ văn học) nêu tên bốn tác giả cổ điển, đặt Krylov bên cạnh Gavrila Romanovich Derzhavin, Aleksandr Sergeyevich Pushkin và Aleksandr Sergeyevich Griboyedov.

Ivan Krylov viết hơn 200 truyện ngụ ngôn trong khoảng thời gian từ năm 1809 đến năm 1843. Từng được in ra với số lượng lớn và được bạn đọc chào đón nồng nhiệt. Một số đề tài ngụ ngôn của ông ban đầu mô phỏng theo truyện ngụ ngôn của Aesop và Jean de La Fontaine nhưng về sau là sáng tác của ông. Ngày sinh nhật 50 tuổi của ông từng trở thành một ngày hội của quần chúng. Gần 200 năm nay có biết bao nhiêu thế hệ người Nga lớn lên qua những câu chuyện ngụ ngôn của Ivan Krylov. Ông mất năm 1844 ở Sankt-Peterburg.